The Verge
07-16 07:00
xAI sues a man for using Grok to generate CSAM ‘deepfakes’
📌 一句话：xAI起诉用户滥用Grok生成儿童性虐待内容，首开AI公司主动追责用户AI滥用先河。
💡 3个要点
xAI起诉一名男子，指控其使用Grok生成儿童性虐待材料（CSAM）的"深度伪造"内容
这是AI公司首次主动对用户滥用AI工具生成CSAM提起诉讼，而非被动配合执法
xAI意在通过诉讼划清平台责任边界，向潜在滥用者发出强硬警示信号
📖 背景
xAI是马斯克旗下的人工智能公司，其聊天机器人Grok因安全限制相对宽松而备受争议。此次诉讼标志着AI公司从被动应对滥用转向主动出击，试图通过法律手段遏制AI工具被用于生成CSAM等违法内容。
💭 点评
xAI这步棋走得妙——用诉讼而非封号来处理滥用，既转移了平台监管失职的争议，又在行业里立了规矩。但讽刺的是，Grok此前因安全护栏宽松著称，如今却因CSAM问题告用户，不免有"既当裁判又当运动员"之嫌。这场诉讼能否真正震慑滥用者，还是会成为AI公司推卸责任的惯用套路，值得持续观察。
📖 原文链接
点击阅读原文 →